बाइटडांस डौबाओ बड़े मॉडल टीम ने आज घोषणा की कि उन्होंने नवीनतम स्पार्स मॉडल आर्किटेक्चर UltraMem को सफलतापूर्वक विकसित किया है। इस आर्किटेक्चर ने MoE (मिक्स्ड एक्सपर्ट) मॉडल के अनुमान के दौरान उच्च मेमोरी समस्या को प्रभावी ढंग से हल किया है, जिससे अनुमान की गति MoE की तुलना में 2-6 गुना बढ़ गई है और अनुमान की लागत अधिकतम 83% कम हो गई है। यह महत्वपूर्ण प्रगति बड़े मॉडल के कुशल अनुमान के लिए एक नया रास्ता खोलती है। UltraMem आर्किटेक्चर ने मॉडल के प्रभाव को सुनिश्चित करते हुए MoE आर्किटेक्चर के अनुमान की मेमोरी बाधा को सफलतापूर्वक हल किया है। प्रयोगात्मक परिणाम दर्शाते हैं कि समान पैरामीटर और सक्रियण की स्थिति में

2024 में Tencent की वैश्विक डिजिटल पारिस्थितिकी सम्मेलन में, Tencent के उपाध्यक्ष और क्लाउड व्यवसाय के अध्यक्ष क्यू युएपेंग ने घोषणा की - Tencent Hunyuan Turbo बड़े मॉडल का आधिकारिक पदार्पण। यह नई पीढ़ी का बड़ा मॉडल MoE (Mixture of Experts) आर्किटेक्चर डिज़ाइन पर आधारित है, पिछले जनरेट उत्पाद की तुलना में, अनुमान दक्षता में 100% की वृद्धि के साथ दोगुना हो गया है, जबकि अनुमान लागत में 50% की महत्वपूर्ण कमी आई है। इसके अलावा, Hunyuan Turbo ने डिकोडिंग दक्षता में भी उत्कृष्ट प्रदर्शन किया है, जो 2 से बढ़ी है।

वेंक्सिन बड़ा मॉडल की दैनिक कॉल मात्रा ५०१ मिलियन से अधिक है, त्रैमासिक संबंध में १९०% की वृद्धि हुई है। लगभग २.६० हजार कंपनियों ने वेंक्सिन बड़ा मॉडल का उपयोग किया है, त्रैमासिक संबंध में १५०% की वृद्धि। सैमसंग, ऑनर, ऑटोहोम जैसी प्रमुख कंपनियों ने बaidu के साथ साझेदारी की है। बaidu लगातार वेंक्सिन बड़ा मॉडल की अनुमान लागत को कम कर रहा है, जो वर्तमान में पिछले वर्ष के ३% संस्करण तक कम हो गया है।越来越多的用户和企业开始使用文心大模型。

बaidu वेंक्सिन बड़े मॉडल की अनुमान लागत पहले के 1% तक कम कर दी गई है। वेंक्सिन बड़े मॉडल का दैनिक कॉल मात्रा 5 करोड़ से अधिक है, तिमाही आधार पर 190% की वृद्धि। लगभग 26,000 कंपनियां वेंक्सिन बड़े मॉडल का उपयोग कर रही हैं, तिमाही आधार पर 150% की वृद्धि।